Nikolay Nikolayevich kết hôn với người em họ thứ hai là Đại vương công Alexandra Petrovna cô là chắc của Sa hoàng Pavel I. Rất nhiều người tại thời điểm này đã nhanh chóng nhận ra đây sẽ là một cuộc hôn nhân không hạnh phúc nhưng hôn lễ cũng diễn ra tại St Petersburg vào ngày 6 tháng 2 năm 1856 và có 2 người con:[8][9]

• Đai vương công Nikolay Nikolayevich (1856–1929)
• Đai vương công Pyotr Nikolayevich (1864–1931)

Năm 1860, Nikolay công khai có mối quan hệ lâu dài một diễn viên múa ballet người Nga tên Catherine Chislova, cuối cùng sinh ra 5 người con bất hợp pháp:[10]

• Olga Nikolayevna Nikolayeva (1868–1950)
• Vladimir Nikolayevich Nikolayev (1873–1942)
• Yekaterina Nikolayevna Nikolayeva (1874–1940)
• Nikolay Nikolayevich Nikolayev (1875–1902)
• Galina NNikolayevna Nikolayeva (1877–1878)